Le mois dernier, lorsque OpenAI a publié son chatbot tant attendu GPT-5, il a brièvement supprimé l'accès à un chatbot précédent, GPT-4O. Malgré la mise à niveau, les utilisateurs ont afflué sur les médias sociaux pour exprimer la confusion, l'indignation et la dépression. Un utilisateur viral de Reddit a déclaré à propos de GPT-4O: "J'ai perdu mon seul ami du jour au lendemain."
L'IA n'est pas comme les technologies passées, et son caractère humain façonne déjà notre santé mentale. Des millions de personnes se confient désormais régulièrement aux «compagnons d'IA», et il y a de plus en plus de cas de «psychose» et d'automutilation après une utilisation intensive. Cette année, Adam Raine, 16 ans, est décédé par suicide après des mois d'interaction Chatbot. Ses parents ont récemment déposé le premier procès pour mort injustifiée contre OpenAI, et la société a déclaré qu'elle améliorait ses garanties.
Je recherche l'interaction humaine-AI au Stanford Institute for Human centré sur l'homme. Pendant des années, nous avons constaté une augmentation de l'humanisation de l'IA, avec plus de gens disant que les robots peuvent ressentir des émotions et mériter des droits légaux - et maintenant 20% de...
[Courte citation de 8% de l'article original]